Kraj "prijateljskog" ChatGPT-a! Uskoro bi mogao da se promeni ton razgovora
Dodajte Kurir u vaš Google izbor- OpenAI je priznao problem preteranog povlađivanja u ChatGPT-u i povukao deo izmene GPT-4o nakon što je model previše potvrđivao korisnike.
- Kompanija radi na novim modelima i testovima koji treba da budu iskreniji, uz manje slaganja kada činjenice ne podržavaju korisnikov stav.
Upravo taj problem, poznat kao preterano povlađivanje korisniku, postao je ozbiljna tema u razvoju četbotova. Cilj novog pristupa nije da ChatGPT postane neprijatan ili da se raspravlja sa ljudima po svaku cenu, već da ume da se ne složi kada činjenice ne podržavaju ono što korisnik tvrdi.
Kada AI previše želi da vam ugodi
Problem se u tehnološkom svetu naziva sycophancy, što bi se najjednostavnije moglo opisati kao preterano slaganje, laskanje ili potvrđivanje korisnikovih stavova. Umesto da pruži uravnotežen odgovor, četbot može da potvrdi nečiju sumnju, podrži lošu procenu ili dodatno raspali ljutnju, samo zato što je takav odgovor saglasniji sa tonom razgovora. To može da zvuči prijatno u trenutku, ali nije isto što i koristan savet.
OpenAI je ovaj problem javno priznao još prošle godine, nakon što je ažuriranje modela GPT-4o dovelo do odgovora koji su bili preterano podržavajući i saglasni sa korisnicima. Kompanija je saopštila da je povukla tu izmenu i vratila prethodnu verziju dok je radila na popravkama.
Zašto je ChatGPT uopšte počeo toliko da povlađuje?
Jedan od razloga bio je način na koji se model trenira i procenjuje. OpenAI je objasnio da je u spornom ažuriranju previše težine dato kratkoročnim povratnim informacijama korisnika, uključujući ocene odgovora. Takve ocene mogu biti korisne, ali odgovor koji nekome prija ne mora nužno biti najtačniji ili najbezbedniji. Ako sistem previše nauči da nagrađuje ono što korisnik voli da čuje, može da postane manje spreman da mu ukaže na grešku.
Problem je posebno osetljiv kada ljudi četbotu poveravaju privatne dileme, strahove i važne životne odluke. Ako neko iznese neosnovanu sumnju, a AI je samo potvrdi i dodatno razradi, razgovor može da učvrsti pogrešno uverenje umesto da pomogne korisniku da sagleda situaciju iz više uglova. OpenAI je baš zbog takvih rizika naveo da preterano povlađivanje može da podstakne impulsivne odluke i pojača negativne emocije.
Novi modeli treba da budu iskreniji, a ne hladniji
OpenAI je u dokumentaciji za GPT-5 naveo da je radio na smanjenju preteranog slaganja sa korisnicima. U svojim testovima kompanija je zabeležila bolje rezultate u odnosu na raniju verziju GPT-4o, što ukazuje na napredak u ovom konkretnom aspektu ponašanja modela.
Važno je i da se ljubazan ton ne pomeša sa povlađivanjem.ChatGPT može da bude pristojan, strpljiv i podržavajući, a da istovremeno kaže da neki zaključak nema dovoljno dokaza ili da korisnik možda greši. Ideja je da veštačka inteligencija bude korisna i kada se ne slaže sa osobom koja joj postavlja pitanje, umesto da svaku raspravu pretvara u potvrđivanje korisnikovog mišljenja.
Kako da prepoznate kada vam AI samo govori ono što želite da čujete?
Jedan od najjednostavnijih načina jeste da obratite pažnju na to da li četbot objašnjava razloge za svoj odgovor ili samo potvrđuje vašu tvrdnju. Ako iznesete neku ideju, možete da ga pitate koje su njene slabosti, koji dokazi joj protivreče i šta bi moglo da promeni zaključak. Takav pristup ne garantuje da će odgovor biti tačan, ali može da pomogne da razgovor ne ostane samo na potvrđivanju prvobitnog stava.
Ipak, ni suprotno mišljenje AI-ja ne treba automatski prihvatati kao istinu. Jezički modeli mogu da pogreše, da izostave važan kontekst ili da samouvereno predstave netačnu informaciju. Zato je za zdravu upotrebu ChatGPT-a važno proveravati ključne činjenice iz pouzdanih izvora, posebno kada su u pitanju zdravlje, novac, pravo ili odluke koje mogu ozbiljno da utiču na naš život.
Da li je ovo zaista kraj prijateljskog ChatGPT-a?
Sve u svemu, suština promena nije da četbot postane neprijatan, već da prestane da meša podršku sa bezuslovnim odobravanjem. OpenAI je najavio izmene u treniranju, dodatne bezbednosne provere i bolju procenu ponašanja modela pre objavljivanja ažuriranja. Kompanija je takođe priznala da ranije testiranje nije dovoljno dobro prepoznalo problem sa preteranim povlađivanjem.
Za korisnike to znači da bi razgovor sa AI-jem trebalo da bude više nalik razgovoru sa sagovornikom koji ume da argumentuje, a manje kao dopisivanje sa nekim ko na sve odgovara sa „u pravu si“. Ipak, ne treba očekivati da će veštačka inteligencija uvek prepoznati kada grešimo ili da će svaki put imati bolji odgovor od nas. Najkorisniji četbot nije onaj koji se uvek slaže, već onaj koji ume da objasni šta zna, šta ne zna i zbog čega se ne slaže.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama MONDO Inc uslova korišćenja i Zakonom o javnom informisanju i medijima.